
AI晶片新創公司Etched.ai近期成功募資3億美元,使其估值達到103億美元,將用於擴大專用AI推論硬體的生產與部署。該公司已在台灣設立製造廠,並開發創新技術以優化AI推論效能,獲得紅杉資本等投資者青睞。
專注人工智慧(AI)推論硬體的新創公司Etched.ai近期完成3億美元C輪募資,公司估值一舉達到103億美元,累計募資金額也突破10億美元。根據《Economic Times》報導,本輪由紅杉資本(Sequoia Capital)領投,安德里森·霍羅威茨(Andreessen Horowitz)、簡街資本(Jane Street)、Diffusion及SK海力士(SK Hynix)等機構參與,並創下紅杉資本領投C輪募資案的最高估值紀錄。Etched.ai表示,新資金將投入擴大生產規模、加速產品研發及部署更多AI推論叢集,以因應市場快速成長的運算需求。
AI推論是指已完成訓練的AI模型實際執行任務,產生文字、影像、預測或其他結果的過程。隨著生成式AI服務快速普及,推論已成為資料中心持續且大量的運算需求。Etched.ai認為,傳統通用型AI硬體在速度、功耗及成本效益方面,逐漸難以滿足先進模型大規模運作需求,因此選擇從晶片、記憶體、網路到機架級基礎設施,打造專門針對AI推論最佳化的運算平台。其硬體採取架構中立設計,可支援不同規模及架構的模型,目前已涵蓋DeepSeek、Qwen等專家混合模型(MoE),以及Mamba等非Transformer架構。
為改善AI推論的耗電及記憶體瓶頸,Etched.ai正開發「低電壓推論」(Low Voltage Inference)及「叢集級記憶體」(Cluster Scale Memory)兩項技術。前者透過降低運作電壓,在固定功耗範圍內提升運算效能,希望增加每瓦電力及每美元成本所能產生的Token數量;後者則結合靜態隨機存取記憶體(SRAM)與高頻寬記憶體(HBM),將整個運算叢集視為共同的記憶體空間,透過共享SRAM資源加快模型參數存取速度,降低推論延遲。Etched.ai希望藉此突破大型AI模型在高速運算下所面臨的散熱、功耗與資料傳輸限制。
面對市場需求持續超越供給,Etched.ai也積極擴充全球產能。除了在加州聖荷西(San Jose)總部附近新增約8萬平方英尺設施,公司今年稍早也已在台灣設立製造據點,並於加州米爾皮塔斯(Milpitas)啟用10兆瓦規模廠區,設置新產品導入實驗室及內部表面黏著技術(SMT)產線,以縮短研發至量產的時間。目前Etched.ai約有400名員工,並持續招募工程人才,長期目標是將AI推論基礎設施擴展至吉瓦(GW)等級。
紅杉資本合夥人桑妮雅·黃(Sonya Huang)表示,AI推論正逐漸發展為全球規模最大的市場之一,未來大量推論工作將由專用運算硬體負責。Etched.ai共同創辦人暨執行長Gavin Uberti則表示,目前公司晶片已能穩定運作,加上市場需求強勁,現階段的首要任務就是加速擴大產能並將產品交付客戶。隨著AI產業從大規模模型訓練逐步進入應用與推論需求爆發階段,專用AI晶片市場的競爭也預料將進一步升溫。
